
FP8_PATH=/home/DeepSeek-R1/
INT_PATH=/home/DeepSeek-R1-int4-pack8/

python3 fp82int.py --input-fp8-hf-path $FP8_PATH  --output-int8-hf-path $INT_PATH  --group-size -1 --format TN --version 2 --split-count 1
python3 fp82int.py --input-fp8-hf-path $FP8_PATH  --output-int8-hf-path $INT_PATH  --group-size -1 --format TN --version 2 --split-count 2